Vai diễn đáng kể đầu tiên của Segel là một tên nghiện cần sa lập dị Nick Andopolis trong bộ phim hài năm 1999 nhận được sự tán dương từ phía các nhà phê bình phim ảnh của đài NBC mang tên Freaks and Geeks. Bộ phim kể về một nhóm học sinh vùng ngoại ô trường Detroit trong khoảng nhữ năm 1980. Segal tự mình viết một ca khúc cho nhân vật Nick, trong cảnh Nick hát tặng cho nhân vật nữ chính, Lindsay (Linda Cardellini).[10] Cardellini và Segel hẹn hò vài năm sau khi bộ phim bị ngưng chiếu.[11][12] Sau đó, có tin đồn cho rằng cả hai người đã chia tay vì anh quá béo,[13][14] mà sau này đính chính chỉ là chuyện đùa.

Segel trở lại trong bộ phim CSI: Crime Scene Investigation trong vai Neil Jansen và trong bộ phim khác mang tên Undeclared trong vai Eric. Vai diễn gần đây nhất của anh là trong vai Marshall Eriksen trong bộ phim hài của đài CBS "How I Met Your Mother"; trước đây anh có ý định muốn rời bộ phim để hợp tác trong dự án phim khác trong năm 2013 khi hợp đồng của anh hết hạn,[15] tuy nhiên, anh được thoả thuận thành công để hoàn thành bộ phim sau phần thứ 9 trong năm 2014.[16]

Anh cũng đồng thời xuất hiện trong một vài bộ phim khác như Slackers, SLC Punk,The Good Humor Man và Dead Man on Campus. Trong năm 2007, anh xuất hiện trong phim Knocked Up, được nhà sáng lập của Freaks and Geeks, Judd Apatow đạo diễn. Segel đóng vai chính trong bộ phim Forgetting Sarah Marshall năm 2008, một bộ phim mà anh viết và Apatow sản xuất cùng Shauna Robertson cho hãng Universal Pictures. Anh cũng đóng cho bộ phim I Love You, Man, ra mắt vào ngày 20 tháng 3 năm 2009[17] bởi hãng phim Dreamworks.

Trong bộ phim Forgetting Sarah Marshall, Segel viết một vở nhạc kịch tên là "Dracula" và được biểu diễn bằng những con rối. Anh cũng xuất hiện khoả thân trong một cảnh của bộ phim.[18] Trong một buổi phỏng vấn,[19] anh khẳng định từ việc hát nhạc kịch cùng những con rối cho đến việc khoả thân như thế đều là những trải nghiệm thật mà anh muốn đưa vào phim. Những con rối vải được chế tạo bởi hãng phim Jim Hénon.[20] Segel trình diễn một ca khúc từ bộ phim tên là "Dracula's Lament" trong tập thứ 100 của chương trình The Late Late Show with Craig Ferguson.

Trong bộ phim hài năm 2010, Get Him to the Greek, Segel tham gia viết hầu hết phần nhạc phim, được ban nhạc hư cấu Infant Sorrow trình diễn. Anh cũng hát ca khúc "Wonky Eyed Girl" trong chương trình The Late Late Show with Craig Ferguson.[6]

Năm 2010, anh tham gia lồng tiếng cho nhân vật Victor "Vector" Perkins trong bộ phim hoạt hình của hãng Universal, "Despicable Me" và xuất hiện trong vai "Horatio" trong bộ phim ảo tưởng hài mang tên Gulliver's Travels do Rob Letterman đạo diễn, dựa trên phần 1 của tiểu thuyết cùng tên vào thế kỉ thứ 18 của Jonathan Swift. Segel cũng xuất hiện trong bộ phim Bad Teacher, đóng cùng diễn viên Cameron Diaz, được ra mắt hồi tháng 6 năm 2011. Trong phim anh đóng vai giáo viên thể hình và Russell Gettis.[21] Cùng với Nicholas Stoller, Segel gửi yêu cầu hợp tác với Disney vào năm 2007 để viết kịch bản cho bộ phim Muppets. Lúc đầu hãng Disney không chắc sẽ chấp nhận yêu cầu này vì Segel vừa mới diễn một cảnh khoả thân trong Forgetting Sarah Marshall, nhưng sau khi biết anh thật sự khao khát cho vai trò này, dự án đã được thông qua. Segel khẳng định anh muốn tham gia làm lại bộ phim này vì bộ phim cuối cùng trong loạt phim được ra mắt vào năm 1999 là Muppets from Space khiến anh cảm thấy rằng thế hệ sau này để mất linh hồn của bộ phim.[22] Sau đó anh khẳng định sẽ không tham gia phần tiếp theo của The Muppets.[23] Anh quay bộ phim The Five-Year Engagement, cùng Emily Blunt vào mùa xuân năm 2011 tại Michigan và bộ phim được ra mắt ngày 27 tháng 4 năm 2012.

Năm 2013, Segel tiết lộ rằng anh đang tham gia trong một bộ tiểu thuyết dành cho giới trẻ, dựa trên câu chuyện mà anh đã lên ý tưởng năm 21 tuổi.[24] Sắp tới anh cũng có mặt trong bộ phim do Seth Gordon đạo diễn.[25]